Pershing học tại West Point vào mùa thu năm 1882. Pershing tốt nghiệp vào mùa hè năm 1886 đứng thứ 30 trong lớp 77, và được bổ nhiệm làm trung úy, ông được Hiệu trưởng West Point, Tướng Wesley Merritt khen ngợi, Pershing sẽ sớm trở thành một sĩ quan xuất sắc. Pershing một thời gian ngắn kiến ​​nghị quân đội để cho ông nghiên cứu pháp luật. Ông cũng xem xét việc tham gia cùng một số bạn cùng lớp để theo đuổi phát triển một dự án thủy lợi ở Oregon.